Năm 1955

Ổ cứng đầu tiên trên thế giới có là IBM 350 Disk File được chế tạo bởi Reynold Johnson ra mắt năm 1955 cùng máy tính IBM 305. Ổ cứng này có tới 50 tấm đĩa kích thước 24" với tổng dung lượng là 5 triệu ký tự. Một đầu từ được dùng để truy nhập tất cả các tấm đĩa khiến cho tốc độ truy nhập trung bình khá thấp.

Năm 1961

Thiết bị lưu trữ dữ liệu IBM 1301 ra mắt năm 1961 bắt đầu sử dụng mỗi đầu từ cho một mặt đĩa.

Ổ đĩa đầu tiên có bộ phận lưu trữ tháo lắp được là ổ IBM 1311. Ổ này sử dụng đĩa IBM 1316 có dung lượng 2 triệu ký tự.

Năm 1973

IBM giới thiệu hệ thống đĩa 3340 "Winchester", ổ đĩa đầu tiên sử dụng kĩ thuật lắp ráp đóng hộp (sealed head/disk assembly - HDA). Kĩ sư trưởng dự án/chủ nhiệm dự án Kenneth Haughton đặt tên theo "súng trường Winchester" 30-30 sau khi một thành viên trong nhóm gọi nó là "30-30" vì các trục quay 30 MB của ổ đĩa cứng. Hầu hết các ổ đĩa hiện đại ngày nay đều sử dụng công nghệ này, và cái tên "Winchester" trở nên phổ biến khi nói về ổ đĩa cứng và dần biến mất trong thập niên 1990.

Trong một thời gian dài, ổ đĩa cứng có kích thước lớn và cồng kềnh, thích hợp với một môi trường được bảo vệ của một trung tâm dữ liệu hoặc một văn phòng lớn hơn là trong môi trường công nghiệp khắc nghiệt (vì sự mong manh), hay văn phòng nhỏ hoặc nhà riêng (vì kích cỡ quá khổ và lượng điện năng tiêu thụ). Trước thập niên 1980, hầu hết ổ đĩa cứng có các tấm đĩa cỡ 8" (20 cm) hoặc 14-inch (35 cm), cần một giá thiết bị cũng như diện tích sàn đáng kể (tiêu biểu là các ổ đĩa cứng lớn có đĩa tháo lắp được, thường được gọi là "máy giặt"), và trong nhiều trường hợp cần tới điện cao áp hoặc thậm chí điện ba pha cho những mô tơ lớn chúng dùng. Vì lý do đó, các ổ đĩa cứng không được dùng phổ biến trong máy vi tính đến tận năm 1980, khi Seagate Technology cho ra đời ổ đĩa ST-506 - ổ đĩa 5,25" đầu tiên có dung lượng 5 MB. Có một thực tế là trong cấu hình xuất xưởng, máy IBM PC (IBM 5150) không được trang bị ổ đĩa cứng.

Thập niên 1990

Đa số các ổ đĩa cứng cho máy vi tính đầu thập kỷ 1980 không bán trực tiếp cho người dùng cuối bởi nhà sản xuất mà bởi các OEM như một phần của thiết bị lớn hơn (như Corvus Disk System và Apple ProFile). Chiếc IBM PC/XT được bán ra đã có một ổ đĩa cứng lắp trong nhưng xu hướng tự cài đặt nâng cấp bắt đầu xuất hiện. Các công ty chế tạo ổ đĩa cứng bắt đầu tiếp thị với người dùng cuối bên cạnh OEM và đến giữa thập niên 1990, ổ đĩa cứng bắt đầu xuất hiện trong các cửa hàng bán lẻ.

Ổ đĩa lắp trong ngày càng được sử dụng nhiều trong PC trong khi các ổ đĩa lắp ngoài tiếp tục phổ biến trên máy Macintosh của hãng Apple và các nền tảng khác. Mỗi máy Mac sản xuất giữa giữa các năm 1986 và 1998 đều có một cổng SCSI phía sau khiến cho việc lắp đặt thêm phần cứng mới trở nên dễ dàng; tương tự như vậy, "toaster" (máy nướng bánh) Mac không có chỗ cho ổ đĩa cứng (hay trong Mac Plus không có chỗ lắp ổ đĩa cứng), các đời tiếp theo cũng vậy thế nên ổ SCSI lắp ngoài là có thể hiểu được. Các ổ đĩa SCSI lắp ngoài cũng phổ biến trong các máy vi tính cổ như loạt Apple II và Commodore 64, và cũng được sử dụng rộng rãi trong máy chủ cho đến tận ngày nay. Sự xuất hiện vào cuối thập niên 1990 của các chuẩn giao tiếp ngoài như USB và FireWire khiến cho ổ đĩa cứng lắp ngoài trở nên phổ biến hơn trong người dùng thông thường đặc biệt đối với những ai cần di chuyển một khối lượng lớn dữ liệu giữa hai địa điểm. Vì thế, phần lớn các ổ đĩa cứng sản xuất ra đều có trở thành lõi của các vỏ lắp ngoài.

Ngày nay

Dung lượng ổ đĩa cứng tăng trưởng theo hàm mũ với thời gian. Đối với những máy PC thế hệ đầu, ổ đĩa dung lượng 20 megabyte được coi là lớn. Cuối thập niên 1990 đã có những ổ đĩa cứng với dung lượng trên 1 gigabyte. Vào thời điểm đầu năm 2005, ổ đĩa cứng có dung lượng khiêm tốn nhất cho máy tính để bàn còn được sản xuất có dung lượng lên tới 40 gigabyte còn ổ đĩa lắp trong có dung lượng lớn nhất lên tới một nửa terabyte (500 GB), và những ổ đĩa lắp ngoài đạt xấp xỉ một terabyte. Cùng với lịch sử phát triển của PC, các họ ổ đĩa cứng lớn là MFM, RLL, ESDI, SCSI, IDE và EIDE, và mới nhất là SATA. Ổ đĩa MFM đòi hỏi mạch điều khiển phải tương thích với phần điện trên ổ đĩa cứng hay nói cách khác là ổ đĩa và mạch điều khiền phải tương thích. RLL (Run Length Limited) là một phương pháp mã hóa bit trên các tấm đĩa giúp làm tăng mật độ bit. Phần lớn các ổ đĩa RLL cần phải tương thích với bộ điều khiển nó làm việc với. ESDI là một giao diện được phát triển bởi Maxtor làm tăng tốc trao đổi thông tin giữa PC và đĩa cứng. SCSI (tên cũ là SASI dành cho Shugart (sic) Associates), viết tắt cho Small Computer System Interface, là đối thủ cạnh tranh ban đầu của ESDI. Khi giá linh kiện điện tử giảm (do nhu cầu tăng lên) các chi tiết điện tử trước kia đặt trên cạc điều khiển đã được đặt lên trên chính ổ đĩa cứng. Cải tiến này được gọi là ổ đĩa cứng tích hợp linh kiện điện tử (Integrated Drive Electronics hay IDE). Các nhà sản xuất IDE mong muốn tốc độ của IDE tiếp cận tới tốc độ của SCSI. Các ổ đĩa IDE chậm hơn do không có bộ nhớ đệm lớn như các ổ đĩa SCSI và không có khả năng ghi trực tiếp lên RAM. Các công ty chế tạo IDE đã cố gắng khắc phục khoảng cách tốc độ này bằng phương pháp đánh địa chỉ logic khối (Logical Block Addressing - LBA). Các ổ đĩa này được gọi là EIDE. Cùng lúc với sự ra đời của EIDE, các nhà sản xuất SCSI đã tiếp tục cải tiến tốc độ SCSI. Những cải tiến đó đồng thời khiến cho giá thành của giao tiếp SCSI cao thêm. Để có thể vừa nâng cao hiệu suất của EIDE vừa không làm tăng chi phí cho các linh kiện điện tử không có cách nào khác là phải thay giao diện kiểu "song song" bằng kiểu "nối tiếp", và kết quả là sự ra đời của giao diện SATA. Tuy nhiên, hiệu suất làm việc của các ổ đĩa cứng SATA thế hệ đầu và các ổ đĩa PATA không có sự khác biệt đáng kể.